Trương Mậu ban đầu vẫn tiếp tục tuyên bố là chư hầu của nhà Tấn, chỉ coi mình là một thứ sử và có tước công. Ông bổ nhiệm cháu trai Trương Tuấn làm người kế vị. (Các thư tịch không rõ liệu Trương Mậu đã có con trai chưa.) Năm 321, ông bắt đầu cho xây một tòa tháp nguy nga gọi là Linh Quân đài (靈鈞台), nhưng sau khi Diêm Tăng (閻曾) thuyết phục ông rằng việc này quá tốn kém, ông đã cho dừng việc xây dựng.

Năm 322, Trương Mậu cùng với tướng Hàn Phác (韓璞) chiếm các quận Lũng Tây (隴西) và Nam An (南安, nay là Định Tây, Cam Túc), khi đó nằm dưới quyền kiểm soát của Hán Triệu, trong khi quân Hán Triệu đang phải chiến đấu với quân nổi loạn của Trần An (陳安), mở rộng lãnh địa của ông về phía đông đến Hoàng Hà.

Tuy nhiên, năm 323, sau khi hoàng đế Hán Triệu là Lưu Diệu đánh bại Trần An, ông ta tiếp tục tiến đến Hoàng Hà, tuyên bố đã sẵn sàng vượt sông. Trương Mậu đã chuẩn bị tư thế chiến đấu, song qua đàm phán, đã khuất phục trước Hán Triệu và nạp triều cống gồm ngựa, gia súc và đồ trang sức cho Hán Triệu. Lưu Diệu lập Trương Mậu làm Lương vương và ban cho ông cửu tích.[2] Sau đó, Trương Mậu tiếp tục cho xây Linh Quân đài, nói rằng việc xây dựng này là cần thiết cho mục đích phòng thủ, và tăng cường phòng thủ tại kinh thành Cô Tang (姑臧, nay thuộc Vũ Uy, Cam Túc).

Vào mùa hè năm 324, Trương Mậu lâm bệnh. Ông nói với cháu trai Trương Tuấn rằng vẫn phải trung thành với nhà Tấn, và cũng ra lệnh rằng không được chôn cất ông với nghi thức của tước vương, do tước hiệu này không phải do hoàng đế nhà Tấn ban cho. Ông qua đời ngay sau đó.